Đơn vị này là đứa con tinh thần của Hauptmann (đại úy) Theodor von Hippel, người sau khi có ý tưởng bị Reichswehr từ chối, đã tiếp cận Đô đốc Wilhelm Canaris, chỉ huy của Cơ quan Tình báo quân sự Đức, Abwehr. Hippel đề xuất rằng các đơn vị nhỏ, được huấn luyện phá hoại và thông thạo ngoại ngữ, có thể hoạt động đằng sau chiến tuyến kẻ thù và phá hoại hệ thống chỉ huy, liên lạc và hậu cần của kẻ thù.[2] Canaris ban đầu chống lại đề xuất này khi ông xem các biện pháp tương tự như những gì những người Bolshevik đã làm và nghi ngờ về động cơ của Hippel. Vẫn quyết tâm thành lập đơn vị, Hippel tìm đến người đứng đầu bộ phận của mình, Helmuth Groscurth, và hai người đã trao đổi về vấn đề này vào ngày 27 tháng 9 năm 1939.[3] Chỉ vài ngày sau cuộc gặp của họ, Bộ Tổng tham mưu Quân đội đưa ra một chỉ thị cho phép tạo ra "một đại đội cho các hoạt động phá hoại ở phía Tây."[4] Là một phần của Ban 2 Abwehr, Hippel được giao nhiệm vụ thành lập đơn vị.[5] Ban đầu, đơn vị Hippel được đặt tên là Deutsche Kompagnie, sau đó vào ngày 25 tháng 10, nó trở thành Baulehr-kompagnie 800 và sau đó vào ngày 10 tháng 1 năm 1940, đơn vị được gọi là Bau-Lehr-Battalion zbV 800 (Tiểu đoàn huấn luyện đặc nhiệm 800); nhưng tên gọi sau này được biết đến rộng rãi hơn, "Brandenburger", xuất phát từ tên của các khu căn cứ đầu tiên của đơn vị.[4]

Việc huấn luyện kéo dài từ 5 đến 7 tháng, bao gồm các khóa huấn luyện về trinh sát, bơi lội, chiến đấu tay không, phá hủy, xạ kích bằng cả vũ khí của Đức và Đồng minh, chiến thuật bộ binh thông thường và huấn luyện chuyên ngành khác.[6] Các toán Brandenburg được triển khai như những toán đặc nhiệm nhỏ để xâm nhập vào lãnh thổ của kẻ thù và tiến hành cả các hoạt động phá hoại và chống phá hoại. Bất chấp những thành công đã được chứng minh trong khi gây ra thương vong tối thiểu, nhiều sĩ quan Đức truyền thống vẫn thấy việc sử dụng các Brandenburger là việc kinh tởm.[7] Hầu hết các Brandenburger đều thông thạo các ngôn ngữ khác, là điều kiện thuận lợi để họ thực hiện nhiệm vụ trong các lớp vỏ bọc bản địa. Như nhiệm vụ xâm nhập Hà Lan vào năm 1940, các Brandenburger được ngụy trang thành người Hà Lan để xâm nhập sâu qua biên giới ngay trước khi bắt đầu trận Hà Lan. Năm 1941, họ cũng đi trước cuộc xâm lược Nam Tư với vỏ bọc là các công nhân Serbia. Trước khi Chiến dịch Barbarossa bắt đầu, họ đã hoạt động ở Liên Xô trong vỏ bọc các công nhân Liên Xô và binh sĩ Hồng quân và thậm chí còn tự trang bị cho mình các trang phục Ả Rập để tiến hành giám sát các tàu chiến của quân Đồng minh đi qua Eo biển Gibraltar và Bắc Phi trước khi Wehrmacht triển khai ở đó.[8] Tương tự tổ chức của Cục II Abwehr, đơn vị Brandenburg cũng có các phân đội riêng biệt cho các hoạt động của lục quân, hải quân và không quân.[9]

Nhiều thành viên Brandenburg là những kẻ phiêu lưu, những người khó có thể được coi là những người lính thông thường, phần lớn do bản chất của các hoạt động của họ. Họ sẽ hòa nhập với binh lính địch, bí mật ra lệnh phản công, chuyển hướng đoàn xe quân sự và làm gián đoạn liên lạc trong khi thu thập thông tin tình báo trên đường đi.[8] Trước khi các lực lượng chính xâm lược Liên Xô, các thành viên Brandenburg đã chiếm giữ các cây cầu và các điểm chiến lược quan trọng trong các nhiệm vụ bí mật kéo dài trong nhiều tuần trước khi tập hợp với các lực lượng tiến công.[8]

Tiền thân của Sư đoàn Brandenburg là Tiểu đoàn Ebbinghaus (còn gọi là Freikorps Ebbinghaus), có nguồn gốc trước cuộc xâm lược Ba Lan năm 1939. Đại tá Erwin von Lahousen (và các nhóm phòng thủ của quân khu VIII và XVII) từ Cục II Abwehr, tập hợp các K-Trupps nhỏ (các đội chiến đấu), bao gồm những người Silesian và người Đức nói tiếng Ba Lan, có nhiệm vụ chiếm giữ các vị trí chủ chốt và giữ chúng cho đến khi các đơn vị Wehrmacht xuất hiện.[10][lower-alpha 1][lower-alpha 2] Các thành viên đầu tiên của "K-Trupps" là công dân Đức. Nói chung những người này là thường dân chưa bao giờ phục vụ trong quân đội nhưng đã qua huấn luyện ngắn bởi "Abwehr" và được chỉ huy bởi các sĩ quan quân đội. Sau chiến dịch của Ba Lan, điều này đã thay đổi khi những người lính đặc nhiệm này trở thành thành viên của Wehrmacht. Mặc dù có vẻ thiếu kinh nghiệm trước đó, nhưng các yêu cầu đặt ra cho các biệt kích mới được thành lập này rất cao.[11] Điều bắt buộc là họ phải là tình nguyện viên cho nhiệm vụ này. Họ cũng được cho là người nhanh nhẹn, có khả năng ứng biến, có tinh thần chủ động và tinh thần đồng đội, có khả năng ngoại ngữ cao trong các giao tiếp với người nước ngoài và có khả năng thể hiện đòi hỏi khắt khe nhất.[12] Cuối cùng, nguyên tắc chỉ đạo ban đầu yêu cầu các thành viên của Sư đoàn Brandenburg phải là tình nguyện viên, đã kết thúc với việc sử dụng và hội nhập ngày càng tăng với quân đội chính quy.[13]